Thời Minh Thành Tổ, Khiêm đỗ tiến sĩ [2]; được trừ chức Giám sát ngự sử, rồi ra làm Án Giang Tây. Khiêm bàn luận trái ý hoàng đế, nên bị biếm làm Giáp Sơn tri huyện ở Giao Chỉ. Năm Vĩnh Lạc thứ 19 (1421), Khiêm tố cáo bọn tổng binh Lý Bân bắt nộp Dương Cung giả, bị miễn quan về nhà.

Minh Nhân Tông còn là Thái tử, đã biết Khiêm trung trực. Đến khi lên ngôi, Nhân Tông triệu Khiêm làm Đại Lý thiếu khanh. Ban đầu Khiêm được Nhân Tông nghe theo, về sau hoàng đế cảm thấy khó chịu, lại thêm bọn Lữ Chấn đón ý mà đàn hặc ông, khiến hoàng đế tuy không bắt tội ông, nhưng dần xa lánh, không cho ông tham dự buổi chầu sớm. Hơn tháng sau, Nhân Tông thấy chẳng còn ai dám nói gì, bèn tự giáng tỷ thư nhận lỗi, cho Khiêm vào chầu trở lại. Bấy giờ trung quan (tức hoạn quan) chọn gỗ ở Tứ Xuyên, tham lam hoành hành. Nhân Tông cho rằng Khiêm trong sạch ngay thẳng, mệnh cho ông đi trị lý, ban tiền sao để chi dùng; Khiêm bèn bãi việc chọn gỗ.

Đầu thời Minh Tuyên Tông, Giao Chỉ hữu bố chánh Thích Tốn có tội tham dâm nên bị truất, Khiêm nhận lệnh đi thay; trên thực tế ông coi việc của cả Bố chánh sứ tư [3]. Quân Minh thất bại, Khiêm nằm trong số quan lại, tướng lĩnh tham dự hội thề Đông Quan [4], rời Giao Chỉ quay về, bị luận tội đáng chết. Đầu thời Minh Anh Tông, Khiêm được phóng thích làm dân. Sau sự biến Thổ Mộc, Khiêm vào triều, tiến cử Vương Thông cùng bọn Ninh Mậu, Nguyễn Thiên 13 người, cho rằng bọn họ đều là kỳ tài có thể dùng. Mọi người đề nghị lấy Thông làm phó tướng cho Thạch Hanh, Khiêm xin dùng Thông làm chủ tướng, việc bị bỏ qua. Triều thần cho rằng Khiêm có danh vọng lớn, tâu xin giữ ông lại, Minh Đại Tông không trả lời. Năm Cảnh Thái thứ 2 (1451), Khiêm lại lên kinh, dâng sớ tiến cử bọn Vương Thông, Đại Tông không tiếp nạp. Khiêm trở về quê nhà, không lâu sau thì mất.